经典的$ \ textit {procrustes} $问题是找到一个刚体的运动（正交转换和翻译），该运动在最小二乘中最能使两个给定的点集对齐。 $ \ textit {robust procrustes} $问题是一个重要的变体，其中使用power-1目标而不是最小二乘来改善异常值的鲁棒性。虽然最小二乘问题的最佳解决方案可以很容易地以封闭形式计算，但可以追溯到sch \“ onemann（1966），但对于Power-1问题，尚无此类解决方案。对于强大的procrustes问题。我们的放松享有几种理论和实用的优势：从理论上讲，我们证明我们的方法提供了$ \ sqrt {2} $ - 因强大的procrustes问题的近似值，并且在适当的假设下，它的恢复正常恢复。来自异常值污染的点对应关系的真实刚性运动。在实践中，我们在合成和真实鲁棒的数值实验中发现，我们的方法的性能类似于标准迭代重新加权的最小二乘（IRLS）。但是，我们的算法的溶剂性能是允许合并其他凸罚，这是不容易被IRLS的。随之而来的问题，包括非刚性形状对准和半监督的语言词翻译。

Autonomous underwater vehicles (AUVs) are regularly used for deep ocean applications. Commonly, the autonomous navigation task is carried out by a fusion between two sensors: the inertial navigation system and the Doppler velocity log (DVL). The DVL operates by transmitting four acoustic beams to the sea floor, and once reflected back, the AUV velocity vector can be estimated. However, in real-life scenarios, such as an uneven seabed, sea creatures blocking the DVL's view and, roll/pitch maneuvers, the acoustic beams' reflection is resulting in a scenario known as DVL outage. Consequently, a velocity update is not available to bind the inertial solution drift. To cope with such situations, in this paper, we leverage our BeamsNet framework and propose a Set-Transformer-based BeamsNet (ST-BeamsNet) that utilizes inertial data readings and previous DVL velocity measurements to regress the current AUV velocity in case of a complete DVL outage. The proposed approach was evaluated using data from experiments held in the Mediterranean Sea with the Snapir AUV and was compared to a moving average (MA) estimator. Our ST-BeamsNet estimated the AUV velocity vector with an 8.547% speed error, which is 26% better than the MA approach.

Light is a complex-valued field. The intensity and phase of the field are affected by imaged objects. However, imaging sensors measure only real-valued non-negative intensities. This results in a nonlinear relation between the measurements and the unknown imaged objects. Moreover, the sensor readouts are corrupted by Poissonian-distributed photon noise. In this work, we seek the most probable object (or clear image), given noisy measurements, that is, maximizing the a-posteriori probability of the sought variables. Hence, we generalize annealed Langevin dynamics, tackling fundamental challenges in optical imaging, including phase recovery and Poisson (photon) denoising. We leverage deep neural networks, not for explicit recovery of the imaged object, but as an approximate gradient for a prior term. We show results on empirical data, acquired by a real experiment. We further show results of simulations.

Graph neural networks (GNNs) are widely used for modeling complex interactions between entities represented as vertices of a graph. Despite recent efforts to theoretically analyze the expressive power of GNNs, a formal characterization of their ability to model interactions is lacking. The current paper aims to address this gap. Formalizing strength of interactions through an established measure known as separation rank, we quantify the ability of certain GNNs to model interaction between a given subset of vertices and its complement, i.e. between sides of a given partition of input vertices. Our results reveal that the ability to model interaction is primarily determined by the partition's walk index -- a graph-theoretical characteristic that we define by the number of walks originating from the boundary of the partition. Experiments with common GNN architectures corroborate this finding. As a practical application of our theory, we design an edge sparsification algorithm named Walk Index Sparsification (WIS), which preserves the ability of a GNN to model interactions when input edges are removed. WIS is simple, computationally efficient, and markedly outperforms alternative methods in terms of induced prediction accuracy. More broadly, it showcases the potential of improving GNNs by theoretically analyzing the interactions they can model.

高能量密度物理（HEDP）实验通常涉及在低密度泡沫内部传播的动态波 - 前。这种效果会影响其密度，因此影响其透明度。泡沫生产中的一个常见问题是产生有缺陷的泡沫。需要有关其尺寸和同质性的准确信息来对泡沫的质量进行分类。因此，这些参数使用3D测量激光共聚焦显微镜进行表征。对于每个泡沫，拍摄五个图像：两张2D图像，代表顶部和底部泡沫平面和3D扫描的侧面横截面的三张图像。专家必须通过图像集进行手动对泡沫质量进行分类的复杂，苛刻和疲惫的工作，然后才能确定是否可以在实验中使用泡沫。目前，质量有两个二元级别的正常与缺陷。同时，通常需要专家来对正常缺陷的子类别进行分类，即有缺陷但可能需要实验的泡沫。由于不确定的判断，该子类是有问题的，这主要是直观的。在这项工作中，我们提出了一种新颖的最先进的多视图深度学习分类模型，该模型通过自动确定泡沫的质量分类并因此有助于专家来模仿物理学家的观点。我们的模型在上表面和下表面泡沫平面上达到了86 \％的精度，整个集合中达到了82 \％，这表明了该问题的有趣启发式方法。这项工作中的一个重大价值是能够回归泡沫质量而不是二进制扣除，甚至可以在视觉上解释该决定。本工作中使用的源代码以及其他相关来源可在以下网址获得：https：//github.com/scientific-computing-lab-nrcn/multi-view-foams.git

大多数在对话率问题回答中建模对话历史记录（CQA）的作品报告了共同CQA基准测试的主要结果。尽管现有模型在CQA排行榜上显示出令人印象深刻的结果，但尚不清楚它们在设置方面（有时是更现实的），训练数据大小（例如从大型集合到小型集合）和域是否有牢固的变化。在这项工作中，我们设计并进行了首次针对CQA的历史建模方法的大规模鲁棒性研究。我们发现，高基准分数不一定会转化为强大的鲁棒性，并且在不同的设置下，各种方法的性能都大不相同。配备了我们研究的见解，我们设计了一种基于及时的新型历史建模方法，并在各种环境中展示了其强大的鲁棒性。我们的方法灵感来自现有方法，这些方法突出了段落中的历史答案。但是，我们不是通过修改段落令牌嵌入来突出显示，而是直接在段落文本中添加文本提示。我们的方法简单，易于插入实际上任何模型，并且非常有效，因此我们建议它作为未来模型开发人员的起点。我们还希望我们的研究和见解将提高人们对以鲁棒性评估的重要性的认识，除了获得较高的排行榜分数，从而提高了更好的CQA系统。

自动水下车辆（AUV）执行各种应用，例如海底映射和水下结构健康监测。通常，由多普勒速度日志（DVL）提供的惯性导航系统用于提供车辆的导航解决方案。在这种融合中，DVL提供了AUV的速度向量，从而确定导航解决方案的准确性并有助于估计导航状态。本文提出了BeamsNet，这是一个端到端的深度学习框架，用于回归估计的DVL速度向量，以提高速度向量估算的准确性，并可以替代基于模型的方法。提出了两个版本的BeamsNet，其输入与网络不同。第一个使用当前的DVL光束测量和惯性传感器数据，而另一个仅利用DVL数据，对回归过程进行了当前和过去的DVL测量值。进行了模拟和海上实验，以验证相对于基于模型的方法的拟议学习方法。使用地中海的Snapir AUV进行了海洋实验，收集了大约四个小时的DVL和惯性传感器数据。我们的结果表明，提出的方法在估计DVL速度矢量方面取得了超过60％的改善。

为了在深度学习中解释隐性正则化时，给予了矩阵和张量因子化的突出重点，这与简化的神经网络相对应。结果表明，这些模型分别表现出对低基质和张量排名的隐式趋势。当前的论文理论上绘制了更接近实际的深度学习，从理论上分析了分层张分解中的隐式正则化，该模型等同于某些深卷积神经网络。通过动态系统镜头，我们克服了与层次结构相关的挑战，并建立了对低层次张量级别的隐性正则化。这转化为相关卷积网络对区域的隐性正则化。受我们的理论的启发，我们设计了明确的正则化，阻碍了区域性，并证明了其在需要建筑变化的传统智慧的情况下，可以改善现代卷积网络在非本地任务上的性能。我们的工作突出了通过对其隐式正则化的理论分析来增强神经网络的潜力。

轮廓引导优化是一种有效的技术，用于提高基于动态行为的编译器的优化能力，但收集配置文件数据昂贵，繁琐，并且需要定期更新以保持新鲜。我们提出了一种推断分支概率的新型统计方法，可以提高未经配置文件的汇编编译的程序的性能。我们使用从具有分支概率信息的大型二进制文件收集的信息进行离线培训。编译器使用学习的模型来预测常规未用性程序的分支概率，编译器可以用于通知优化决策。我们将我们的技术直接整合在LLVM中，补充了现有的人工工程编译器启发式。我们在一套基准中评估我们的技术，展示了在没有简档信息的情况下编制的一些收益。在部署中，我们的技术不需要分析运行，并且对编译时间有可忽略的影响。

在深度学习中的优化分析是连续的，专注于（变体）梯度流动，或离散，直接处理（变体）梯度下降。梯度流程可符合理论分析，但是风格化并忽略计算效率。它代表梯度下降的程度是深度学习理论的一个开放问题。目前的论文研究了这个问题。将梯度下降视为梯度流量初始值问题的近似数值问题，发现近似程度取决于梯度流动轨迹周围的曲率。然后，我们表明，在具有均匀激活的深度神经网络中，梯度流动轨迹享有有利的曲率，表明它们通过梯度下降近似地近似。该发现允许我们将深度线性神经网络的梯度流分析转换为保证梯度下降，其几乎肯定会在随机初始化下有效地收敛到全局最小值。实验表明，在简单的深度神经网络中，具有传统步长的梯度下降确实接近梯度流。我们假设梯度流动理论将解开深入学习背后的奥秘。